آرامگاه بابا طاهر بر فراز تپه‌ای در شمال باختری همدان قرار دارد. این بنا در طول قرون مختلف شاهد تخریب و بازسازی‌های متعدد بوده‌است. قدمت مقبره اصلی بابا طاهر به دوره سلجوقیان می‌رسد و در قرن ششم هجری یک برج هشت ضلعی آجری بر روی قبر بابا طاهر ساخته شد که بعدها بر اثر مرور زمان ویران شد.